Joost van Vollenhoven sinh tại Rotterdam, Hà Lan. Thời niên thiếu, Volenhoven theo gia đình sang sống ở Algeria (một thuộc địa của Pháp) và nhập quốc tịch Pháp ở đây (năm 1899). Cũng vào năm 1899, ông theo học tại École Coloniale (Trường Pháp quốc hải ngoại) để trở thành quản trị viên thuộc địa. Sau khi phục vụ trong Trung đoàn I của người Zouaves xong, ông giải ngũ với chức vụ trung sĩ vào năm 1902. Năm 1903, Volenhoven được bổ nhiệm làm Tổng thư ký của Bộ Thuộc địa, và giám đốc tài chính vào năm 1905; về sau thì làm Tổng thư ký cho chính quyền thuộc địa Pháp ở châu Phi xích đạo.